Tỳ bà lần đầu tiên được nêu danh trong lịch sử Việt Nam, khi Lê Tắc ghi trong An Nam chí lược, tên dàn tiểu nhạc dùng ngoài cung đình nhà Trần. Đàn tỳ bà của Việt Nam là dạng rất cổ xưa của đàn tỳ bà Trung Quốc, vốn từ Ba Tư dưới dạng đàn Qanbūs của Ả Rập và đàn Barbat theo con đường tơ lụa vào Trung Quốc.[7].Tỳ bà đã du nhập sang nước Việt từ rất sớm, là phiên bản làm lại của Bắc quản tỳ bà Trung Quốc và thay dây sắt bằng dây nylon. Bằng chứng là hình chạm các nhạc công trên tảng đá vuông dùng làm chân cột chùa Phật Tích, Bắc Ninh, có chạm hình tỳ bà giữa hai nhạc công dùng sanh (một loại khèn cổ) hoặc sáo có nhiều ống nứa ráp lại gọi là bài tiêu, và ống tiêu thổi dọc. Trong khi những bức phù điêu khắc hoạ những nhạc công tay phải dùng miếng gảy (gọi là phết) tương đương tỳ bà Nhật Bản bây giờ hay tỳ bà 4 dây thời Đường, đứng giữa hai nhạc công thổi sanh và ống sáo ngang. Suốt thời nhà Trần, tỳ bà chỉ góp mặt trong dàn Tiểu nhạc dùng trong dân gian.

Đời nhà Hậu Lê, khi Lương Đăng quy định nhạc cung đình theo mẫu nhà Minh, tỳ bà có mặt trong dàn Đường Hạ chi nhạc. Nhưng quy định của Lương Đăng không được ai tán thành cả. Nguyễn Trãi đã dâng biểu để tâu với Hoàng đế vì sao ông đã từ chức không ở trong Ban lo việc quy định Nhạc Triều Đình, nêu những cái sai của Lương Đăng[8]. Nhưng cuối cùng Lê Thái Tông cho thi hành theo quy chế mới của Lương Đăng.

Đến đời Hồng Đức (1470-1497), ba vị đại thần là Lương Thế Vinh, Thân Nhân Trung, Đỗ Nhuận kê cứu âm nhạc Trung Hoa hiệp vào quốc âm, chế ra hai đội Đồng Văn và Nhã Nhạc để đàn và hát trong cung đình[9]. Đàn tỳ bà và đàn Tranh đều có trong hai đội ấy. Nhưng các Vị Đại thần không muốn giữ tên tranh hay tỳ bà là tên Trung Quốc, nên đặt cho tỳ bà tên Tứ huyền cầm (đàn 4 dây) còn đàn Tranh lúc ấy có 15 dây mang tên là Thập ngũ huyền cầm.

Sau đó, có một sự thay đổi rất lớn từ đời Quang Hưng (1578), hai đội Đồng Văn, Nhã nhạc chỉ còn được dùng trong các lễ lớn như Tế Giao, Tế Miếu, Đại triều. Trong các dịp khác, lần lần Đồng Văn, Nhã Nhạc bị đội Giáo phường trong dân gian thay thế. Tỳ bà bị bỏ quên trong khi đàn tranh được sung vào Đội Giáo phường, góp mặt với đàn đáy, có trống yêu cổ, có loại địch quản mà tên gọi thông thường là Quyển Thúy. Có đào nương vừa ca vừa gõ phách có cả sênh tiền. Khi đàn trong cung điện gọi là đi hát cửa quyền (tiền thân của ca trù) thì đội Giáo phường có rất nhiều nhạc công đàn Cầm, tức là loại đàn dây, trong đó có đàn Tranh 15 dây. Và còn nhiều trống to, trống nhỏ, ống địch, hải loa...

Cuối đời nhà Lê, có một thay đổi lớn: đàn Tranh không còn có mặt trong dàn nhạc triều đình mà thay bằng tỳ bà góp mặt với đàn nguyệt (lúc đó tên là đàn song vận), đàn tam, đàn nhị, có hai cái sáo, một trống bản, một tam âm la và một sênh tiền.

Sau chiến thắng Kỷ Dậu, Quang Trung gửi một phái đoàn hữu nghị sang chầu Càn Long. Thanh Đế phong cho Quang Trung tước An Nam quốc vương, người Trung Quốc gọi dàn nhạc đi theo là "An Nam quốc nhạc". Khâm định Đại Thanh Hội điển sự lệ ghi lại, nhiều chi tiết về chín loại nhạc nước ngoài có mặt tại triều đình nhà Thanh gọi là Cửu tấu. Nguyễn Ánh lên ngôi, lấy niên hiệu là Gia Long, từ năm 1802 người Trung Quốc đổi tên lại là Việt Nam quốc nhạc.

Nhà Nguyễn chấn chỉnh nhạc cung đình. Lập dàn Đại Nhạc gồm Kèn trống là chính. Và dàn Nhã nhạc cũng gọi là Tiểu nhạc hay "Ti trúc tế nhạc", vì dàn nhạc gồm những nhạc khí mắc dây tơ và cây sáo trúc. Tỳ bà có mặt trong dàn nhạc cung đình còn đàn Tranh lại được trọng dụng trong dân gian và trở thành một nhạc khí quan trọng của nhạc thính phòng. Đàn Tranh, đàn nguyệt, đàn nhị, đàn tam và đàn tỳ bà trở thành ban Ngũ tuyệt của ca nhạc thính phòng Huế (tiền thân của ca Huế).